Từ tháng 6 năm 1995, Thiếu tướng Hoàng Đan được Đảng và Quân đội cho nghỉ hưu. Sau khi về hưu, ông vẫn tham gia tích cực vào công tác giảng dạy, biên soạn các tài liệu tổng kết chiến dịch, chiến lược, huấn luyện quân sự dựa trên gần năm mươi năm quân ngũ của ông cùng với các "văn tướng" đã về hưu khác như Thượng tướng Trần Văn Quang hay Thượng tướng Hoàng Minh Thảo.

Ông mất ngày 18 tháng 12 năm 2003 do bệnh tim. Ông được an táng tại quê nhà xã Nghi Thuận, huyện Nghi Lộc, tỉnh Nghệ An.